Je voudrais discuter un peu des comportements humains et des robots,
de la plus grande différence entre les organismes cybernétiques
et les systèmes humains.
Beaucoup de gens pensent que la programmation
est la même chez les humains et les robots.
Ce n'est pas le cas.
La grande différence est que l'on peut concevoir un robot
pour qu'il se déplace, attrape un objet et le pose à un autre endroit,
mais avant que le robot bouge,
si vous placez l'objet à l'endroit où le robot allait le poser
il continuera d'effectuer la tâche et n'attrapera rien.
Comprenez-vous cela ? Il est programmé.
La différence entre le programme humain et celui des robots
est sa non-linéarité.
C'est-à-dire que le robot ne peut que répondre à son programme.
Si vous l'observez au microscope,
vous pouvez voir les domaines magnétiques qui provoquent le déplacement du robot
vers un certain endroit pour s'asseoir sur une chaise.
Si vous enlevez la chaise,
le robot va se déplacer, s'asseoir sur du vide et tomber.
C'est programmé. Le fonctionnement humain diffère considérablement.
Quand vous travaillez avec un humain,
un chimpanzé ou n'importe quel animal...
(cette fois, je choisis un chimpanzé)
Mettez le singe dans une grande boîte
avec des tiges de différentes tailles sur l'un des côtés
et dont les formes diffèrent (un cercle, un triangle).
Vous n'avez rien à lui apprendre. Il entrera, et,
tôt ou tard, il va toucher ces objets.
Quand il touchera l'une de ces tiges
de l'eau va sortir ; en en touchant une autre, de la nourriture sort ;
encore une autre et un lit douillet sortira du mur.
Si l'animal est laissé dans cette boîte assez longtemps,
il saura utiliser les tiges de façon appropriée.
Chaque animal à un comportement propre.
Placé dans un environnement, il ne répond pas comme un robot.
Il regarde l'environnement et cherche une récompense : de la nourriture.
Si les feuilles sont de forme circulaire là où sa nourriture se trouve,
un animal se dirigera vers les feuilles circulaires.
Cela s'appelle la 'mémoire associative'.
Les ordinateurs programmés n'en sont pas équipés.
Ils suivent un modèle.
Si vous placez un disque de phonographe
sous le microscope, vous verrez des zigzags
gravés dans le disque vinyle.
Ces zigzags représentent la voix d'une personne.
Lorsque l'enregistrement est joué
si le chanteur chante 'Caruso'
il ne peut pas dévier de ce modèle.
Les robots qui sont programmés ne peuvent sortir de ces programmes
à moins que vous ayez prévu une autre ligne d'execution similaire.
Si vous montrez de légères variations : à la place d'un cercle, une ellipse,
l'animal va toucher cette chose
en pensant que c'est un cercle, car leur perception est approximative
et il va se brûler légèrement ;
ainsi il ne la touchera plus jamais.
Voilà ce que l'animal possède et que le robot n'a pas.
Si le robot touche quelque chose et n'est pas stimulé...
Comment stimuler le comportement d'un robot ?
S'il est piqué, cela ne va pas le déranger du tout,
mais un robot peut apprendre à répondre à différentes situations.
Quand il voit un triangle et appuie sur un bouton, il est lubrifié,
mais il ne se sent pas mieux lorsqu'il est lubrifié
alors il n'y a pas de raison de retenir cette tâche.
C'est seulement lorsqu'un humain touche quelque chose
et qu'il aime cette sensation qu'il va la répéter.
Un robot ne peut pas toucher quelque chose et dire "Hé, ça fait du bien."
Ils peuvent tendre le bras, toucher et replier le bras,
mais ne peuvent rien en tirer. Comprenez-vous cela ?
Je demande, "Comprenez-vous cela ?"
parce qu'il y a tellement de confusion aujourd'hui
à propos des humains et des robots : les robots prendront-ils le contrôle ?
Pas s'ils ne sont pas programmés pour le faire.
S'ils sont programmés pour prendre le contrôle, ils ne peuvent que tirer
sur le gars qui porte un certain uniforme.
Si le gars reste dans une certaine zone
le robot peut s'y déplacer, à moins qu'il soit conditionné
pour suivre des yeux une cible mouvante et tirer dessus.
Un robot peut-il être un assassin ? Non, il est programmé pour tirer.
C'est tout à fait différent. L'être humain possède
d'après certains, 10 à 15 milliards de neurones.
Un robot possède des centaines de milliers de connexions, non des milliards.
Si vous apprenez qu'un verre contient de l'eau,
n'importe quel objet ressemblant à un verre pourrait contenir de l'eau.
Nous pouvons dévier de notre programmation.
Notre conditionnement semble rigide, mais en plus
il y a la mémoire associative : j'ai touché cela et j'ai ressenti de la douleur.
J'ai touché cette autre chose sans ressentir de la douleur. J'ai appris.
Un robot ne regarde pas une chose en se disant "C'est intéressant !"
Si vous vous commenciez à léviter devant un robot
il ne dirait pas "Comme c'est intéressant !"
Il ne peut pas faire cela, il ne peut que suivre son programme.
Un homme peut voir des choses
et être conditionné pour les comparer à d'autres choses.
Est-ce clair, ou voulez-vous poser une question ?
Il y a une grande différence entre un comportement programmé
et le conditionnement humain.
Chez l'humain, beaucoup d'associations précèdent son conditionnement,
si d'autres associations lui rappellent quelque chose,
alors il peut dévier.
Voilà pourquoi lorsque je parle,
les gens en tirent différentes interprétations.
(Roxanne) Kurzweil parle d'utiliser la nanotechnologie
et d'implanter quelque chose dans le cerveau
comme un deuxième cerveau qui serait si rapide
qu'il pourrait prendre le pas sur le cerveau de la personne.
C'est quelque chose qu'il a soulevé. - Vous pouvez le faire,
mais cela ne lui donne pas le pouvoir de se poser cette question.
Quelqu'un pourrait se dire : "Je n'ai jamais vu cela se produire."
Une personne pourrait observer un évènement et se dire
"La façon dont ce haut-parleur est soutenu est étrange."
Un robot ne fait pas cela. Il regarde le haut-parleur.
Il ne le regarde même pas en disant "Cela ressemble à un haut-parleur."
À moins que vous en placiez un devant lui en disant
"C'est un haut-parleur" pour qu'en le voyant il dise, "C'est un haut-parleur."
Si vous le tournez sur le côté, il ne sait pas ce que c'est.
Si vous le tournez sur le côté et dites "C'est aussi un haut-parleur"
et le tournez dans de multiples positions
pour que le robot puisse associer les différentes formes
dans différentes positions, il peut reconnaître le haut-parleur.
Si vous appelez une orange une orange, mais que vous la coupez en deux,
il ne peut pas l'appeler orange.
Il ne dit pas "cela ressemble à une moitié d'orange." Vous comprenez ?
(Roxanne) Cette chose dont Kurzweil parle comme une 'singularité'
si vous commencez à implanter des choses dans la tête des gens
qui possède tellement plus de puissance de calcul, ou...
- Si ce n'est pas connecté aux autres neurones,
cela ne fera rien. - Cela ne pourrait pas prendre le contrôle ? - Non,
à moins d'être connecté.
(Joel) Il dit qu'il y aurait une sorte de connexion.
Il y a une certaine interface entre... - S'il y a une interface,
les neurones organiques répondent à une certaine vitesse.
Au-delà de cette vitesse, ils ne répondent pas.
Les systèmes électroniques voyagent presque à la vitesse de la lumière.
Les associations neurales, elles, sont relativement lentes.
Si vous essayez d'augmenter la vitesse de la digestion d'un homme,
les sucs gastriques sont acheminés à une certaine vitesse
si vous tripliez cette vitesse, l'intestin
pourrait être en partie digéré.
Vous comprenez ce que je veux dire ?
Par exemple, prenez un ours dans une pièce de cette taille
avec des objets qui sortent d'un peu partout,
disons 40. Un ours peut apprendre à en utiliser
une douzaine, mais pas 40.
Il ne se souviendra pas de 40, il n'a pas les capacités neuronales
pour s'en souvenir... Un ours pourrait se souvenir de choses
lorsqu'il se déplace dans un environnement : "Ce buisson a des baies."
Il sait où se trouve le buisson.
"Il y a des animaux que je peux manger dans cette zone."
Un ours pourrait se construire des milliers d'associations,
mais il faut d'abord étudier les capacités de l'animal.
Le nombre de leviers dont l'animal peut se souvenir
vous dira ce que l'on peut attendre comme réponse.
Si vous trouvez un ours qui peut apprendre à utiliser 47 leviers
(un peu plus ou un peu moins, si cela s'avère exact)
alors vous savez à quoi il peut réagir dans cet environnement :
à 40 systèmes différents.
Un humain peut générer des associations
entre des milliers de choses dans l'environnement.
Si un humain apprend à manger une sorte de nourriture
en grimpant à un arbre pour l'obtenir
et que vous mettez la nourriture au pied de l'arbre, il ne va pas y grimper.
Un robot montera, vous me suivez ?
Si vous programmez un robot à grimper à un arbre pour prendre une pomme
il va le faire.
Si vous posez la pomme au sol, le robot ne dit pas "Ha !
Cela simplifie les choses."
Non, à moins d'installer un dispositif dans le robot
pour gérer des variables inconnues
et on ne sait pas encore faire cela.
On ne sait pas programmer un robot pour qu'il dise "Qu'avons-nous là ?"
parce que cela n'a pas de sens pour un robot.
Mais cela a du sens pour un humain.
(Roxanne) Les roboticiens et Kurzweil parlent du moment
où le robot devient connecté à son environnement
et possède assez d'informations
pour surpasser et supplanter les gens.
- Non, un robot
ne pose pas de questions. Un robot ne dit pas
"J'ai été ici avant", "J'ai déjà vu cela".
Ils n'ont pas assez de neurones pour faire
ce genre d'associations.
(Roxanne) Pensez-vous qu'il soit possible qu'ils y arrivent
s'ils utilisent la biologie... - Si c'est programmé, non.
Mais si un robot est auto-programmé
alors le pourquoi des gestes d'un robot
est très différent de celui des systèmes humains.
Quand un humain met quelque chose dans sa bouche, cela a bon goût
alors que si un robot le fait, rien. Il n'y a pas de récompense.
Qu'est-ce qu'une récompense pour un robot ?
Une fois assis, dit-il "Ouf, j'étais fatigué,
mais je me sens mieux." Il ne ressent rien.
Quand il s'assoit, il ne se dit pas
"C'est bien qu'il y ait une chaise ici."
Il n'en a rien à faire de ces choses. Si la lumière devient assez brillante
pour que ses yeux s'éteignent, il dirait "Je ne vois plus"
(si vous l'avez ainsi programmé), mais il n'ira pas éteindre la lumière
à mois que vous le programmiez.
Il éteint la lumière quand elle est trop forte
pas parce qu'elle est forte,
mais parce que ses sens éteignent la lumière.
Comprenez-vous la différence ?"
(Roxanne) Vous expliquiez hier soir que
les humains doivent avoir l'expérience pour réagir...
Oui, cela veut dire qu'un robot ne recherche pas l'expérience.
Un robot ne veut pas savoir pourquoi certains pneus s'usent plus vite que d'autres.
Il ne prend pas un microscope pour regarder la gomme
sous le microscope. Un robot n'est pas équipé pour cela.
Ils ne ressentent pas le plaisir ou la douleur.
Si c'était le cas,
ils auraient des préférences.
Vous comprenez ? Si un robot coupe du bois
avec une scie rotative :
tout le bois est acheminé là automatiquement, il le coupe.
Si vous y jetez un humain, il va aussi le découper.
Il ne pense pas "c'est une personne, je ne veux pas la découper."
Le robot ne fait rien à moins d'avoir été programmé pour le faire.
Il peut être l'être pour couper du bois, mais il couperait
tout ce qui passerait par là. Si vous interférez avec sa programmation
il ne dira pas "Attendez un peu, vous changez ma programmation !"
Si un radar d'avion capte du brouillard à San Francisco,
l'avion peut survoler les intempéries.
L'avion se déplace en fonction de ce qui est au dehors.
Si c'est du brouillard, il monte, mais pas pour éviter le brouillard.
C'est une projection humaine.
Un robot change de cap, car il y a du brouillard devant lui.
Ses sens l'informent et actionnent un mécanisme
de contrôle des ailerons qui fait monter l'avion.
S'il pleut, le robot pourrait ouvrir un parapluie.
Si des gouttes d'eau touchent le parapluie,
elles font contact entre deux terminaux :
le courant passe et le parapluie est ouvert.
Mais le robot dit-il "Il pleut. Je vais être mouillé, je vais l'ouvrir" ?
Non, rien de tout cela. Vous me suivez ?
Je parle de la robotique d'aujourd'hui.
Quand on me demande "Les robots vont-ils prendre le contrôle ?"
Il n'y a pas de raison pour cela, s'ils sont spécifiquement programmés.